„Mein Algorithmus und ich“: Kehlmanns Reise zu den Technologiegöttern

Es ist der Sommer 2019, und statt Covid liegt nasse Meerluft über der Terrasse in Dänemark. Dort zoffen sich zwei Schriftsteller. „Du bist ein Transhumanist!“, das wirft Christian Kracht, Deutschlands größter Popliterat, der eigentlich Schweizer ist, seinem Kollegen Daniel Kehlmann entgegen, der ebenfalls nicht ganz Deutscher ist, aber zumindest kein Popliterat.

Transhumanismus, das ist der Glaube, dass die Menschen aussterben und durch Computer ersetzt werden, erklärt Kracht. „Transhumanismus ist abscheulich.“ Das ist für einen, der mal Barbourjacken das Wort redete, eine erstaunlich moralische Haltung. Kehlmann gesteht zwar ein, über die Überlegenheit „siliziumbasierter Intelligenz“ nachgedacht zu haben, kneift sich dann aber mit der Behauptung aus der Debatte, dabei bloß gescherzt zu haben.

Der Begegnung folgt, Krachts Warnung zum Trotz, eine Pilgerfahrt Kehlmanns an den Ort, an dem der Glaube an die menschheitstranszendierende Kraft der Künstlichen Intelligenz seine tiefsten Wurzeln gegraben hat, dem Silicon Valley. Nacherzählt wird Kehlmanns Reise zu den Technologiegöttern in dem schmalen Büchlein „Mein Algorithmus und ich“, das bei Klett-Cotta erschienen ist. Es ist, wenn man so will, Kehlmanns Antwort auf Hape Kerkelings „Ich bin dann mal weg“.

Gleich zu Beginn gesteht Kehlmann, 46 Jahre und Autor mehrerer Bestseller, seine technologische Naivität ein. Künstliche Intelligenz habe er sich als eine Art anthropomorphes Wesen vorgestellt, als C3PO aus Star Wars oder den Roboter Nummer 5 aus dem gleichnamigen 80er-Jahre-Film, also als Entitäten mit einem eigenen Bewusstsein.

Wo war Kehlmann bloß seit 2011?

Das mag für einen gewissen magischen Technologieglauben sprechen, der etwas naiv wirkt, wirklich problematisch ist aber seine Apologie des homo siliconvallensis. Er könne nicht umhin, die Menschen aus der dortigen Tech-Szene, die er kennengelernt habe, sympathisch zu finden, sagt Kehlmann. Sie seien nicht nur „klug und geistig frei wie offen“, sondern „voll Sorge und Verständnis“ über den Schaden, den ihre Dienste und ihre Konzerne anrichten, und „erfüllt von der festen Absicht, etwas gegen diese Problemen zu unternehmen“.

Diese Ansicht wirft Fragen auf. Zum Beispiel die, wo Kehlmann das letzte Jahrzehnt verbracht hat. Zwar benennt der Schriftsteller die Rolle sozialer Netzwerke bei der Wahl von Trump, der sich ungehindert in Präsidentenamt lügen und hetzen durfte. Unerwähnt bleibt, dass die Plattformen lange so gut wie jede Verantwortung für gefährliche Falschbehauptungen von sich wiesen, ja das Facebook selbst Holocaust-Leugnung erst seit einigen Monaten konsequent löscht. Es ist gerade dieses Taubstellen, mit dem Facebook in Myanmar sogar einen Genozid befeuerte.

Nicht wahrhaben will Kehlmann offenbar auch, dass die „klugen und geistig frei wie offenen“ Leute von den Konzernen im Silicon Valley die Komplizen der US-Geheimdienste bei der Massenüberwachung sind, dass sie Drecksarbeiten für das US-Militär erledigen und nebenbei ihre Beschäftigten ebenso ausbeuten, wie es die alten Industriekonzerne taten, seien es Content-Moderatorinnen von Facebook auf den Philippinen oder das Lagerhauspersonal von Amazon in Deutschland. Von der „festen Absicht, etwas gegen diese Probleme zu unternehmen“, ist da wenig zu bemerken.

Wie literarisch produktiv ein schonungsloser Blick auf Skrupellosigkeit, Hybris und Misogynie der Technologiekonzerne sein kann, verrät Anna Wieners „Uncanny Valley“. Ihre dezent anonymisierten Memoiren schildern eine Innensicht aus den Techfirmen, die dem Intelligenzkult und der vermeintlichen Meritokratie der Konzerne die Maske abzieht. Zum Vorschein kommen ehrgeizige junge Männer, die ihre Imperien durch Eliten-Netzwerke und dreiste Landnahme schaffen. Vielleicht hätte Kehlmann mal genauer hingucken müssen.

„Aber ist das nicht etwas… ? Ich meine, Reddit?“

Aber zurück zu Kehlmanns Reise. Ganz der bourgeoise Ästhet, widmet sich der Schriftsteller in seinem Bändchen vordringlich der Frage, ob ein Computer bereits heute mit ihm gleichziehen kann. Eine Cloudfirma, die namentlich nicht genannt wird und zu deren kalifornischem Hauptquartier er pilgert, überlässt ihm den Zugang zu einer Software namens CTRL, der literarisch anmutende Text fabrizieren soll.

Dabei stützt sich CTRL auf Korpora von Bibliotheken, aber auch auf Texte der Viralitätsschleuder Reddit. Die Beliebigkeit dieser Quellenwahl nach dem Motto von Balu dem Bären – „wenn etwas appetitlich ist / dann nimm‘ es dir, egal von welchem Ort“ – macht sogar Kehlmann baff.

„Reddit?“, fragte ich etwas erstaunt „Aber ist das nicht etwas… ? Ich meine, Reddit?“

Davon nicht abgeschreckt, experimentiert der Schriftsteller munter drauflos, in der Manier jugendlicher Schreibexperimente. Aufs Geratewohl entwirft Kehlmann dabei je ein, zwei Sätze und lässt CTRL die nächsten beisteuern. Der Autor behauptet, er habe nichts nachträglich lektoriert, aber dennoch wirkten manche der entstandenen Texte wie „ein Zeichen echter Inspiration“. Hier eine Kostprobe:

I was looking for an appartment. It didn’t go well. The first thing he said to me was, »Hey man, you have a nice ass and you’re not afraid of anything.« »That is true«, I said, »but what about the appartment.» He told me, your don’t need it. It’s just a place to live. And that’s what it is. »Yes man, I said, »but you need a place to live! If you don’t have that you live on the street.« This guy has been living in my apartment since last year. And I have been asking him, why do you live in my apartment, who are you?

Schon der erste kursivgeschriebene Satz, den CTRL produziert, lässt erkennen, dass Konsistenz nicht die Sache des Algorithmus ist. Von einer Art innerem ADHS angetrieben, reiht die Software Dinge aneinander, die zwar klangvoll sein mögen, aber kaum inneren Zusammenhang haben. Zu allem Überfluss schafft CTRL nie mehr als zwei oder drei Absätze, bevor der Text in sinnlose Wortwiederholungen ausfasert.

Noch am ehesten verwendbar ist das für Gedichte, wie Kehlmann bemerkt. Dort reichen einige lichte Momente von CTRL, um etwas zu schaffen, das emotional Resonanz erzeugt:

The snow has fallen

And the wind blows

I am a little boy

Who lives in a house

Kehlmann nennt zwar den Namen der Softwarefirma nicht, die hinter CTRL steht, er beschreibt aber den Kontakt mit ihrem Schöpfer Bryan McCann. Während der Schriftsteller in dem Buch betont, die Ergebnisse seiner Experimente nicht lektoriert zu haben, lässt die Ankündigung einer Veranstaltung mit Kehlmann und McCann das doch anders klingen:

While CTRL generated suggestions based on internalized statistical patterns of language use, Kehlmann deftly wove those suggestions together, at times cutting them, diverting them, or subverting them, in order to „test the extent to which words could fit with one another.“ [Hervorhebungen von netzpolitik.org]

Hat Kehlmann also doch an den Texten geschraubt, um die Ergebnisse der Software interessanter zu machen? Als Werbung für McCann und seine Firma mag das Buch durchaus wirken, auch wenn Kehlmann betont, das Experiment habe sein Ziel nicht erreicht.

Auf die Frage, ob er mit CTRL ins Auge der Zukunft geblickt hat, will der Schriftsteller von seinem magischen Technikglauben nicht ganz ablassen. Es sei „schon etwas Zauberisches an diesem Schauspiel, und zwar jedes Mal“, schreibt Kehlmann. Dennoch begreift er, dass eine Künstliche Intelligenz mit einem Bewusstsein, die von innerer Logik geleitet ist statt von cleverer Nutzung von Statistik, noch in weiter Ferne liegt.

Auch wenn sein Zugang letztlich vor kindlicher Technikgläubigkeit strotzt, so scheint es, also ob Kehlmann damit eine Einsicht erlangt hat, die vielen in der teils hysterischen KI-Debatte noch fehlt: Nämlich dass das, was maschinelles Lernen und Algorithmen heute zustande bringen können, von einer Intelligenz im eigentlichen Sinne noch meilenweit entfernt ist.

Hinweis: Daniel Kehlmann, „Mein Algorithmus und ich“, Klett-Cotta, 1. Aufl. 2021, 64 Seiten, Klappenbroschur, ISBN: 978-3-608-98480-4